Bối cảnh Spirit They're Gone, Spirit They've Vanished

Tất cả bài hát được sáng tác bởi Avey Tare (David Portner) từ năm 1997 tới 1999, trừ "Penny Dreadfuls" được viết khi Portner 16 tuổi. Tiến trình này được ảnh hưởng nặng bởi việc chuyển từ Baltimore đến New York, khoảng thời gian mà anh mô tả là "thời kỳ đen tối" và Brian Weitz (Geologist) là người bạn duy nhất.[5] Portner và Panda Bear (Noah Lennox) thu âm guitar mộc và trống vào một máy Tascam 48 eight-track reel-to-reel trong phòng Portner tại Maryland vào mùa hè năm 1999. Piano và overdub được thực hiện trong phòng khách bố mẹ Portner.Portner muốn tiếng guitar trở nên "chói tai để tạo nên cảm xúc rung động này".[6]

Một bộ tổng hợp Roland SH-2, mà anh em của Weitz tìm thấy, được dùng để tạo tiếng bass.[7] Trống được chơi bằng bàn chải để tạo âm thành giống trong Ocean RainForever Changes. Một phần "Spirit They've Vanished" được tạo ra nhờ việc dùng feedback loop.

Thành viên tương lai Deakin (Josh Dibb) giúp đỡ việc quảng bá và gửi đĩa nhạc tới các công ty thu âm. Portner nhớ lại, "Southern Records gọi chúng tôi lại tức thì và hỏi ‘Có điều gì sai sót với thứ này không? Loại nhạc này làm chó của chúng tôi phải chạy ra khỏi phòng’!"[6]